Vào đầu tháng 8 năm 1517, để đảm bảo duy trì Hiệp ước Rouen, theo đó James sẽ thành hôn với một công chúa trong hoàng tộc Pháp. Tuy nhiên, các con gái của Francis I của Pháp đã được hứa hôn nơi khác, hoặc là quá ốm yếu[19]. Vì thế, sứ giả của James dự định bàn bạc với việc hứa hôn ở nơi khác, đối tượng là Catherine de'Medici, nữ công tước Urbino, và Mary của Áo, Nữ hoàng của Hungary, em gái của Karl V của đế quốc La Mã Thần thánh. Nhưng dự định này thay đổi. Vào tháng 2 năm 1533, hai sứ thần Pháp, Guillaume du Bellay, Sieur de Langes, và Etienne de Laigue, Sieur de Beauvais, nói với sứ thần Venetian ở London rằng James đã dự định kết hôn với Christina của Đan Mạch[20].

Francis I cho rằng con gái của ông Madeleine sức khỏe quá yếu, không thể kết hôn. Cuối cùng, ngày 6 tháng 3 năm 1536, một thỏa thuận được đặt ra, theo đó James V sẽ kết hôn với Mary của Bourbon, con gái của công tước Vendôme, và bà này sẽ trở thành hoàng hậu Scotland với tư cách công chúa nước Pháp. James quyết định đến Pháp để thực hiện hôn lễ. Ông đi từ Kirkcaldy vào ngày 1 tháng 9 năm 1536, cùng Bá tước Argyll, Bá tước Rothes, Huân tước Fleming, David Beaton, các giảo trưởng Pittenweem, lãnh chúa của Drumlanrig và 500 người khác, phương tiện là tàu Mary Willoughby[21]. Đầu tiên ông đến thăm Mary của Bourbon tại St. Quentin ở Picardy, sau đó đã đi về phía nam để gặp vua Pháp[22]. Trong thời gian ở Pháp, vào tháng 10 năm 1536, James có một chuyến đi sản tại Loches với Francis, và con trai nhà vua Pháp, đồng thời là vua Navarre Henry II và Ippolito II d 'Este[23].

Nhưng James cuối cùng thay đổi ý định và vào ngày 1 tháng 1 năm 1537, ông kết hôn với Madeleine của Valois, con gái của nhà vua Pháp, tại Notre Dame de Paris. Đám cưới là một sự kiện lớn: Francis I cho mời sáu họa sĩ đến để trang trí cung điện thật lộng lẫy, và tổ chức một buổi cưỡi ngựa đấu thương tại Château du Louvre[24]. James V rất thích quần áo màu đỏ, và trong ngày cưới, ông gây sự bối rối cho các đại thần Pháp bằng việc mặc trang phục màu đó trong lễ đưa dâu. Ông cũng được miêu tả là không thể nói được một từ tiếng Pháp nào[25].

James và Madeleine trở về từ Pháp vào ngày 19 tháng 5 năm 1537, đến Leith, hạm đội Scotland của Đức vua của kèm theo mười lớn tàu Pháp[26]. Như đôi giong thuyền ra khơi về phía bắc, một số Người Anh đã đến trên ra Bridlington và Scarborough. Trong khi hạm đội không Bamburgh vào ngày 15 tháng năm, ba tàu thuỷ đánh cá Anh cung cấp cá, và hàng thịt Đức vua của đáp xuống Northumbria để mua thịt[27]. Nhà chức trách biên giới Anh bất mãn bởi hoạt động này[28].

Madeleine không có sức khoẻ tốt. Bà đã nhiễm bệnh nặng trước đó và sớm qua đời ngay sau khi đến Scotland vào tháng Bảy 1537. Một tên gián điệp nói với Thomas Clifford, thuyền trưởng của Berwick, rằng James bỏ qua "tất cả các cách thức của trò tiêu khiển và niềm vui", nhưng lại liên tục quan tâm khẩu súng của mình; và hai lần một tuần ông bí mật đi đến lâu đài Dunbar với sáu người tùy tùng[29]. James sau đó tiếp tục kết hôn với Mary của Guise, con gái của Claude, Công tước Guise, và góa phụ của Louis II d'Orléans, Công tước của Longueville, lễ thành hôn diễn ra vào ngày 12 tháng 6 năm 1538. Mary đã có một đời chồng trước đó cùng hai cậu con trai; khi trở thành hoàng hậu, bà cũng sinh đôi được hai người con trai, gồm James, Công tước của Rothesay và Robert, song cả hai đã chết vào tháng 4 năm 1541, khi James 1 tuổi và tám ngày sau khi Robert đã được rửa tội. Năm 1542, khi James đang hấp hối thì Mary sinh ra một người con gái ở cung điện Linlithgow, công chúa Mary, và đó cũng là đứa con hợp pháp duy nhất của James sống qua tuổi trưởng thành.